Cuối năm 755, An Lộc Sơn nổi loạn chống lại nhà Đường[4]. Lý Hoài Tiên đóng quân ở Liễu Thành, gần căn cứ Phạm Dương của họ An, nên nhanh chóng tham gia vào cuộc nổi dậy. Đầu năm 756, ông được cử làm tướng dưới quyền của Lệnh Hồ Triều công đánh vào thành Ung Khâu của nhà Đường do tướng Trương Tuần chống giữ, nhưng thất bại và phải lui quân.

Sau đó trong chính quyền Đại Yên nhiều lần phát sinh đảo chính, Lý Hoài Tiên tiếp tục phục vụ cho ba đời hoàng đế tiếp theo là An Khánh Tự, Sử Tư Minh và Sử Triều Nghĩa. Sau khi Sử Triều Nghĩa giết cha là Sử Tư Minh, đã bố trí cho Lý Hoài Tiên nắm quân vụ ở Phạm Dương, căn cứ ban đầu của chính quyền Yên. Lúc đó Phạm Dương rất hỗn loạn vì các tướng đánh giết lẫn nhau sau khi Sử Tư Minh chết, và Lý Hoài Tiên nhanh chóng khôi phục trật tự cho nơi này.

Không lâu sau đó, quân đội nhà Đường được sự giúp đỡ của Hồi Hột đã lấy lại thành Lạc Dương từ tay quân Yên, Sử Triều Nghĩa chạy trốn đến Phạm Dương. Ngay lúc đó, nhận thấy chính quyền Yên sắp mất, Lý Hoài Tiên gửi thư cho thái giám nhà Đường Lạc Phụng Tiên xin về hàng. Sau đó ông cử Lý Bảo Trung đem quân truy bắt Sử Triều Nghĩa. Sử Triều Nghĩa vào bước đường cùng, phải tự tử. Lý Hoài Tiên cho cắt đầu Triều Nghĩa rồi gửi đến thành Trường An, dâng lên Đường Đại Tông. Loạn An Sử chấm dứt[5].